Calvin chào đời ngày 10 tháng 7 năm 1509 với tên Jean Cauvin, tại thị trấn Noyon thuộc vùng Hauts-de-France nước Pháp. Ông là con đầu trong bốn con trai còn sống đến tuổi trưởng thành. Cha ông, Gérard Cauvin, là công chứng viên của nhà thờ lớn và là hộ tịch viên của tòa án giáo hội. Mẹ ông, Jeanne le Franc, là con gái một chủ quán trọ ở Cambrai. Bà mất chỉ vài năm sau khi sinh Calvin. Gérard dự định cho ba người con trai của ông làm linh mục.

Jean là cậu bé thông minh trước tuổi; mới 12 tuổi cậu đã làm việc cho vị Giám mục như là một thư ký, và chịu cạo đầu để bày tỏ sự hiến mình cho giáo hội. Cậu cũng chiếm được cảm tình của một gia đình quyền thế ở đó, nhà Montmor.[1] Nhờ sự giúp đỡ của họ mà Calvin theo học tại Collège de la March ở Paris; cậu học tiếng Latin từ một trong những giáo sư giỏi nhất trường, Mathurin Cordier.[2] Sau khi hoàn tất khóa học, Calvin đến Collège de Montaigu để theo học môn triết học.[3]

Trong năm 1525 hoặc 1526, Gérard cho con trai đến học luật tại Đại học Orléans. Theo những người viết tiểu sử thời ấy, Theodore Beza và Nicolas Colladon, Gérard tin rằng con trai ông có thể kiếm nhiều tiền hơn trong cương vị một luật sư thay vì làm linh mục.[4] Sau vài năm lặng lẽ học tập, năm 1529, Calvin đến Đại học Bourges. Lúc ấy, chủ nghĩa nhân văn, tập chú vào việc nghiên cứu các tác phẩm cổ điển, đang thịnh hành trong giới trí thức châu Âu. Trong 18 tháng ở Bourges, Calvin học Hi văn, kỹ năng cần thiết để nghiên cứu Tân Ước.[5] Mùa thu năm 1533, Calvin kinh nghiệm một sự thay đổi quan trọng trong đức tin. Sau này, trong hai cơ hội khác nhau, Calvin đã thuật lại trải nghiệm này. Trong quyển Luận giải Sách Thi thiên, ông viết:

Trong một chỗ khác, Calvin nói về những ngày dài bất an trong nội tâm, những trăn trở về tâm linh, và những khổ não trong tâm hồn:

Dù còn có những tranh luận về ý nghĩa chính xác của trải nghiệm qui đạo của Calvin, các học giả đồng ý rằng trải nghiệm này tương ứng với việc Calvin tách khỏi Giáo hội Công giáo Rô-ma.[8][9] Người viết tiểu sử Calvin, Bruce Gordon, nhấn mạnh rằng "không có gì mâu thuẫn giữa hai hồi ức này, ngược lại chúng bày tỏ một sự nhất quán trong ký ức của Calvin, đúng hơn chúng là hai cách trình bày khác nhau về một sự việc."[10]

Năm 1532, Calvin nhận văn bằng luật và xuất bản cuốn sách đầu tay của ông bình giải về tác phẩm De Clementia của Seneca. Sau những chuyến đi đến Orléans và về quê nhà Noyon, tháng 10 năm 1533 Calvin quay trở lại Paris. Suốt trong giai đoạn này tình trạng căng thẳng gia tăng ở Collège Royal, về sau mang tên Collège de France, giữa nhóm cải cách và thành phần bảo thủ trong trường. Một trong những nhà cải cách, Nicolas Cop, được bổ nhiệm viện trưởng đại học. Ngày 1 tháng 11 năm 1533, trong bài diễn văn nhậm chức, Cop nói đến nhu cầu cải cách và chấn hưng Giáo hội Công giáo.

Bị phản ứng dữ dội và bị cáo buộc là dị giáo, Cop buộc phải đào thoát đến Basel. Calvin, bạn thân của Cop, cũng bị nhắc tên trong cáo buộc, năm sau phải đi ẩn mình. Trên đường lẩn tránh, Calvin đến Angoulême, sau đến Noyon, rồi Orléans. Cuối cùng, ông phải rời khỏi nước Pháp lúc xảy ra biến cố Áp phích vào giữa tháng 10 năm 1534, khi một nhóm người bí mật dán áp phích tại các thành phố đả kích lễ misa của Công giáo, dẫn đến sự trả đũa bạo động đối với người Kháng Cách. Tháng 1 năm 1535, Calvin đến gặp Cop ở Basel, thành phố đang ở dưới ảnh hưởng của nhà cải cách Johannes Oecolampadius.[12]